#human-AI collaboration

4 篇

When Should AI Agents Ask? Clarification Requests Under Limited Human Attention

何时 AI 代理应该提问：有限人类注意力下的澄清请求

🧭 多智能体共享人类注意力时的提问协调

The University of Sydney Business School, The University of Sydney · Amazon

提出 Pairwise Coordination Policy 协调多智能体共享有限人类注意力时的提问时机与排序，成本接近最优

📌 工作参考价值（4 点）

在多个 AI agent 并行处理推荐/广告/生成任务且需要人工确认偏好、约束或补全信息时，不要逐个 agent 独立决定是否提问；PCP 用成对任务延迟矩阵估计全局等待成本，能显著降低人工等待与任务闲置带来的总成本。
工程上可以先离线计算单任务和双任务的最优策略与成本表，运行时仅根据当前待解决需求做组合近似，避免动态规划维度爆炸；适合作为 agent 调度与澄清模块嵌入现有 LLM agent 框架。
业务中可复用“先做不依赖缺失信息的部分，再决定 search 或 ask”的框架：如果 agent 有其他可做工作，提前提问可能反而降低总延迟；若可通过查询历史记录/知识库低成本解决，则优先 search，否则 ask。
人类注意力是瓶颈时，不要用 agent-by-agent 排序，而应基于所有等待问题动态调整优先级；PCP 的近似保证和合成基准上的 0.07% 最优差距说明这种成对近似已经足够用于实际调度。

MultiAgent | 2026-10-30 | cs.HC | score 7/10

修正思维而非动作：通过定位知识鸿沟实现可解释的AI辅助

🧭 可解释AI辅助 · 知识误解诊断

University of Southern California

从行为反推认知误解，以最小干预修正内在知识缺陷，而非纠正单个错误动作

📌 工作参考价值（4 点）

可借鉴其“从行为序列反推认知偏差”的思路，在推荐系统中针对用户频繁点击低质内容的行为，诊断其对商品关键属性的误解，并生成解释性提示（如“您可能忽略了XX参数”）。
结构化知识表示（如属性-关系图）与组合泛化能力，可启发构建模块化的用户兴趣模型，即使只见过单一偏好偏差，也能在推理时解耦并处理用户多因素混合的误解。
在智能客服或对话Agent中，可模仿SENSEI框架，通过用户提问序列定位其知识鸿沟，提供最少量但关键的信息纠正，提升问题解决效率。
多智体协作场景中，可将该框架用于Agent间信念对齐：当检测到其他Agent执行了次优动作时，主动推断其策略中的误解，并定向沟通修正，替代简单的动作级干预。

Other | 2026-06-04 | cs.HC | score 7/10

容量约束下为异构代理在线分配预测任务

🧭 Agent上下文任务分配与在线优化 ★ 深度解读

University of California, Irvine

提出在线上下文多臂赌博框架，在代理容量约束下动态学习其专长并路由任务，显著优于非上下文基线

📌 工作参考价值（4 点）

在电商客服/专家系统路由中，可以将不同技能的人工客服和AI客服视为异构代理，利用在线上下文学习（如用户意图、商品品类）分配任务，同时通过虚拟队列强制满足每个代理的工作量上限，防止过载。
在多LLM推荐生成场景中，各LLM对不同类目或用户群体的表现存在差异，可借鉴在线树模型估计上下文奖励，结合队列惩罚项（at = arg max(μ_a(x_t) - η Q_t,a)）实现轻量级路由，满足API调用容量限制。
工程实现上，贪婪策略在容量约束下已具有与汤普森采样相当的探索效果，可降低在线推理的复杂度；虚拟队列机制简单易集成，适合实时决策。
核心洞察：当代理的专长在上下文中互补时，联合策略可以超越单个最佳代理的边际性能，这是仅靠离线或非上下文路由无法捕获的，为“人机互补”或“多模型路由”提供了理论支撑。

Agent | 2026-05-27 | cs.HC | score 10/10

目标级AI贡献的测量、诱导与暴露：人机协作归属框架

🧭 人机协作目标级贡献归属与 AI 主动性测量 ★ 深度解读

KAIST · Carnegie Mellon University · Seoul National University

提出 COTRACE 框架，在目标与需求层面量化人类与 AI 的贡献，并揭示可控制的间接影响模式

📌 工作参考价值（4 点）

目标分解为可验证需求：可将电商对话中的复合意图拆分为一组独立、可检查的 requirement，用以量化 AI 在需求创建、修改中的贡献，区分 AI 是简单执行还是主动塑造了用户目标。
间接影响模式直接复用：论文归纳的四种间接影响类型（under-specification, artifact-triggered elaboration, problem-triggered revision, interactional steering）可直接作为 prompt 模板或 agent 交互策略，在需要 AI 更主动时故意模糊用户输入，或提供半成品以引导 AI 提出更细的需求，例如在生成式推荐中让 AI 先给一个粗方案，诱导用户补充细节。
交互设计控制 AI 主动性：强制 agent 每次行动前发送消息（Chat 模式 vs 直接工具调用的 Agentic 模式）使 AI 对目标塑造的贡献率从 24.5% 提升至 42.9%。在 Agent 系统中，可以通过插入一条简单的“先表达计划再执行”规则，平衡自主性与可控性。
贡献可视化提升用户校准：将贡献分析图暴露给使用者后，其对自己执行贡献的评分平均下降 1.8 分（5 分量表），有效纠正对 AI 贡献的低估。在推荐解释或协作式购物助手中，可引入类似“决策影响回溯”视图，帮助用户理性评估 AI 的建议。

Agent | 2026-05-19 | HF Daily | score 8/10